Tháng 4 năm 1955 ông được Thủ tướng Ngô Đình Diệm thăng cấp Thiếu tướng. Tháng 5 ông được trao tặng Bảo quốc Huân chương đệ Tứ đẳng kèm Anh dũng Bội tinh với nhành Dương liễu. Tháng 10 cùng năm ông được chỉ định làm Tổng Chỉ huy cuộc duyệt binh của Quân đội Quốc gia. Đến đầu năm 1957, ông được thăng cấp Trung tướng tại nhiệm. Đầu tháng 8 năm 1958 ông được cử đi du học lớp Tham mưu cao cấp tại Học viện Chỉ huy và Tham mưu Fort Leavenworth, Kansas, Hoa Kỳ. Tháng 12 cùng năm mãn khóa về nước, ông được cử giữ chức vụ Tổng Thư ký Bộ Quốc phòng. Tháng 6 năm 1959 ông được bổ nhiệm chức vụ Chỉ huy trưởng Trường Đại học Quân sự.[4]

Ngày 1 tháng 11 năm 1963, ông tham gia cuộc đảo chính Tổng thống Diệm. Sau đó ông làm Ủy viên Kinh tế trong Hội đồng Quân nhân Cách mạng do Trung tướng Dương Văn Minh làm Chủ tịch.

Tháng 10 năm 1964 ông được cử giữ chức vụ Tham mưu trưởng Liên quân thay thế Thiếu tướng Cao Văn Viên đi làm Tư lệnh Quân đoàn III & Vùng 3 Chiến thuật.

Đầu năm 1965 ông được chỉ định giữ chức vụ Tổng trưởng Quân lực (Tổng trưởng Quốc phòng) thay thế Thủ tướng Trần Văn Hương kiêm nhiệm. Trung tuần tháng 2, bàn giao chức vụ Tổng trưởng Quân lực lại cho Trung tướng Nguyễn Văn Thiệu, Đệ nhất Phó Thủ tướng kiêm nhiệm. Cuối tháng 2 ông được cử làm Tổng Tư lệnh Quân lực (Tổng Tham mưu trưởng) thay thế Đại tướng Nguyễn Khánh (tháng 5 cùng năm, chức danh Tổng Tư lệnh Quân lực đổi lại như cũ là Tổng Tham mưu trưởng). Trong giai đoạn này ông được ân thưởng Bảo quốc Huân chương đệ Nhị đẳng. Tháng 7 cùng năm, ông bàn giao chức vụ Tổng Tham mưu trưởng lại cho Thiếu tướng Nguyễn Hữu Có.

Đến năm 1967 ông được cử đi làm Đại sứ Việt Nam Cộng hòa tại Cộng hòa Tunisia và sau đó tại Cộng hòa Tchad. Tháng 3 năm 1974 mãn nhiệm kỳ về nước, ông được giải ngũ với lý do đã phục vụ quân đội trên 20 năm.